跳到主要内容

MUSA SDK v5.1.0 发布版本信息

下载链接

MTT S5000

MTT S4000

发布说明

MUSA SDK v5.1.0 版本围绕 MUSA Driver/Runtime、编译工具链与核心计算库进行了能力扩展和稳定性优化,重点增强 CUDA 12.8 兼容能力、图执行与批量异步能力,并持续完善大模型训练和推理场景的基础组件支持,现已正式发布。

具体支持平台详见下方列表。

支持平台

S5000 支持平台

CPUOS内核版本MUSA SDK包
IntelAlinux5.10.134-13.al8.x86_64RPM
OpenEuler5.10.0-216.0.0.115.oe2203sp4.x86_64RPM
Debian5.15.120.ve.3u1-amd64DEB
Tlinux(TencentOS Server 4.4)6.6.92-34.1.tl4.x86_64RPM
VesselOS 1.0 SP15.10.0-136.13.2.89.vo1sp1.x86_64RPM
Ubuntu 22.04.4 LTS5.15.0-105-genericDEB
Hygon4Ubuntu 24.045.15.0-105-genericDEB
Kylin v10(Kylin Linux Advanced Server V10,GFB)4.19.90-52.23.v2207.gfb08.ky10.x86_64RPM
Kylin v11(Kylin Linux Advanced Server V11,Swan25)6.6.0-32.7.v2505.ky11.x86_64RPM
AMDUbuntu 22.04.4 LTS5.15.0-105-genericDEB

S4000 支持平台

CPUOS内核版本MUSA SDK包
IntelUbuntu 22.04.4 LTS5.15.0-105-genericDEB
Hygon4openEuler 24.03(LTS-SP1)6.6.0-72.0.0.76.oe2403sp1.x86_64RPM

产品说明

摩尔线程 MUSA SDK 是一套完整的 GPU 并行计算开发环境,专为利用摩尔线程 GPU 加速程序而设计。通过 MUSA SDK,您能够轻松地利用 GPU 加速各种应用,涵盖企业数据中心、桌面、工作站以及云平台和超级计算机等多个领域。该套件包括 GPU 加速库、调试和优化工具、C/C++编译器以及用于应用程序部署的运行时库等功能。作为一套完整的开发工具,MUSA SDK 包含了以下主要组件:

  • MUSA Toolkits,包含底层编译器、MUSA 运行时库、Musify 工具以及 MUSA-X 基础数学计算加速库
  • muDNN,MT GPU 深度学习加速库
  • MCCL,MT GPU 通信加速库
  • mutlass,用于在 MUSA 上实现高性能矩阵乘法运算的纯头文件库
  • Triton-MUSA,Triton 编译器
  • TileLang-MUSA,TileLang 编译器
  • MUSA OpenLibs,包含 MATE、MT-SHMEM、muThrust、muAlg 等加速库
  • MUSA Mapping,提供 CUDA 代码未经改动情况下直接在 MUSA 软件和 MT GPU 上编译运行
  • MUSA SDK 依赖于摩尔线程 GPU 和摩尔线程 GPU 通用驱动程序,需要运行在带有摩尔线程 GPU 的服务器/工作站/PC 中,并安装了通用 Linux 驱动程序的环境中运行
  • MT GPU:MTT S5000, MTT S4000
  • 通用驱动软件

另外 MUSA SDK 可配合摩尔线程提供的其他工具和软件提供更完整的 MUSA 计算功能:

  • GMI&MTML 工具,可提供显卡的管理监控功能并带有 C 函数接口
  • 摩尔线程云原生套件,提供基于容器环境的 MUSA 计算并兼容 K8s 生态以及基于 RDMA 的 GPU 通信功能
  • Moore Perf,提供调试和性能分析能力

功能描述

  • 支持 SIMT (Single Instruction Multiple Thread,SIMT) 架构并行编程模型
  • 提供 MUSA 编程语言配套的编译器工具链 mcc,用于将 MUSA 应用程序源码编译为可以被 GPU 识别的可执行文件
  • MUSA 驱动与运行时库,提供完整的基于 MT GPU 的 MUSA 运行环境
  • 摩尔线程 MUSA 数学库提供了在 MT GPU 上优化过的数学函数库,包括:
    • MUSA 基础线性代数加速库,MUSA BLAS Library,简称 muBLAS
    • MUSA 伪随机数生成加速库,MUSA RAND Library,简称 muRAND
    • MUSA 傅立叶变换加速库,MUSA FFT Library,简称 muFFT
    • MUSA 稀疏矩阵加速库,MUSA SPARSE Library,简称 muSPARSE
    • MUSA 线性代数求解加速库,MUSA SOLVER Library,简称 muSOLVER
    • MUSA 图像及信号处理加速库,MUSA Performance Primitives Library,简称 muPP
    • MUSA Thrust 并行计算加速库,MUSA Thrust Library,简称 muThrust
  • MCCL 通信,针对摩尔线程 GPU 和网络进行性能优化的多 GPU 和多节点通信基元,提供 all-gather、all-reduce、broadcast、reduce、reduce-scatter、point-to-point send 和 receive 等原语
  • muDNN 库,针对深度学习和人工智能模型优化的函数库,提供张量运算、神经网络层计算、损失函数计算等能力
  • Triton MUSA 库,支持在摩尔线程 GPU 上高效运行 Triton DSL

主要更新

功能更新(Feature Updates)

  • MUSA Driver/Runtime

    • CUDA 12.8 API 兼容性进一步提升,Driver API 兼容率为 93.61%,Runtime API 兼容率为 96.54%
    • 新增支持 CUDA 12.8 Green CTX API、Stream Ordered Memory Allocator API、ExchangeStreamCaptureMode API
    • 新增 BatchAsync 系列能力,包括 MemoryTransferBatchAsyncMemoryAtomicBatchAsyncStreamBatchMemOp_v2MemcpyBatchAsyncMemcpy3DBatchAsync
    • Graph 相关 API 进一步完善,支持 Graph on UserQ 能力
    • 修复 MUSA UserQ 在连续 kernel 下发场景的误报超时问题
    • MUPTI 适配 memory atomic、transfer batch、Graph on UserQ,并支持 msys 特性验证
    • MUSA sanitizer 支持结合 MUSA gdb 定位多流 trap 问题
  • mtcc 编译工具链

    • 扩展 MTGPU builtin 与 MUSA device header 覆盖,新增 F32 API(frcp_rdfrcp_rz)、FP16 API(h2tanhh2tanh_approx)、FP8 相关转换能力(含 e8m0/fp4/fp6)及 f64 rcp/sqrt compatibility 支持
    • 修复 __fsqrt_rn 边界 case 精度问题,完善 long double isfinite/isinf/isnan 处理
    • 支持 MTX inline assembly,覆盖 DeepEP 类内核常用的 load、cpasync、atom3、mbarrier 路径
    • 新增 MTGPU SLP Vectorizer、LSU robust API 与 cache hint 支持
    • 新增 FOP 和 AF32 burst 支持
    • 新增 v32i64v32f64v64i32v64f32FRAME_LOAD/FRAME_STORE 支持
    • 修复 vector usage 场景下 frame store/load 使用错误,修复 urem lowering/codegen 及 u64 到 f64 转换舍入模式问题
    • 新增 musa_trap 在 S5000 上的支持
  • Triton

    • 开源版本从 3.1.0 升级到 3.2.0
    • 支持在 PH1 上自动开启 WMMA 或 SQMMA
    • 完善 SQMMA 支持,扩展类型与 shape 覆盖并扩大 autotune 范围
  • MTX

    • 完善 MTX inline asm 编译链,提升 asm volatile(".mtx\n" ...) 在 MUSA C/C++ 中的可用性和稳定性
    • 扩展并验证常用 MTX 指令支持,覆盖 ld1、st2、atom3、red2、barrier、asyncbar、mbar、lop3.b32、permute3.b32、fmul2、fdiv2、fabs1、cp.async、tensor.ldwmma、tensor.wmma 等路径
    • 优化 operand 适配与寄存器打包,改善 vector tuple、聚合输入及 inline asm 场景兼容性
    • 修复 st2.volatile 宽 store 的 volatile 语义、ld1.cv cache 语义、ld1 全局访存 lowering 以及 st2.release/st2.acquire fence 行为
  • muBLAS / muBLASLt

    • muBLAS 新增 gemmex API 对 bf16 输入、fp32 计算与输出的支持
    • muBLAS 与 muBLASLt 返回状态码设计与 CUDA 12.8 对齐
    • 新增 emulations 相关 API 支持
  • muSOLVER

    • 支持奇异值分解(含 Jacobi 迭代和近似分解方案),并支持 stridedBatched 场景
    • 支持 Cholesky 分解及基于 Cholesky 分解的矩阵求解
  • muSPARSE

    • CUDA 12.8 cuSPARSE API 兼容率达到 100%
    • 修复若干问题
  • muAlg

    • 提供面向 MUSA 平台的 GPU 并行基础原语能力,覆盖 device、block、warp 三个层级
    • 当前版本包含 reduction、scan、radix、sort、select、histogram、segmented sort、spmv 等 device 级能力,以及 BlockLoad、BlockStore、BlockScan、BlockReduce、BlockRadixSort、WarpScan、WarpReduce 等 block/warp 级接口
    • 当前版本暂不包含 grid_barrier,并在 S4000 及同类型架构上继续屏蔽 warp_exchange
  • muThrust

    • 提供 STL 风格并行算法库、容器与执行策略支持,覆盖 host_vectordevice_vector 及 sort/reduce/scan/transform 等常用能力
    • 支持 async copy、for_each、transform、reduce、sort、scan 等异步能力
    • 默认测试范围目前仅排除 async.exclusive_scan.large_indicesasync.inclusive_scan.large_indices
  • muDNN

    • 同时提供 C 和 C++ 两套 API(不支持混用)
    • GroupedMatMul 与 BatchMatMul 增强分块能力并优化分块选择逻辑
    • Unary 算子扩展多数据类型支持并优化性能
    • Permute、BatchNorm、Pooling 等算子在多场景下优化性能与功能支持
    • 优化编译流程以降低运行过程显存占用,并修复若干问题
  • MCCL

    • 新增 mcclGathermcclScattermcclAlltoAll(shader) CC API
    • 新增 mcclCommSplit(支持多通信器组共享资源)
    • 新增 mcclCommShrinkmcclCommInitRankScalablemcclCommRevoke 容错能力
    • 增强聚合能力,优化聚合通信延时
    • 支持 auto-tune,可自动选择算法与协议
    • 支持多机 LL 协议,优化多机场景小数据量通信时延

产品组件说明

包名称版本
mccl.2.3.0.PH1.tar.gz2.3.0
mccl.2.3.0.QY2.tar.gz2.3.0
mt-peermem-1.3-1.el8.x86_64.rpm1.3
mt-peermem_1.3_amd64.deb1.3
mudnn.3.3.0.PH1.tar.gz3.3.0
mudnn.3.3.0.QY2.tar.gz3.3.0
musa_5.1.0-server_amd64.deb5.1.0
musa_5.1.0-server_amd64.rpm5.1.0
musa_toolkits_5.1.0.tar.gz5.1.0
triton_1.6.0.py310.tar.gz1.6.0
triton_1.6.0.py311.tar.gz1.6.0